סיכום סדנת HSI בינלאומית מתאריך: 15-18 לנובמבר 2022

דר' נירית גביש – האקדמית להנדסה בראודה כרמיאל, דר' אביגדור זוננשיין - מרכז גורדון להנדסת מערכות, הטכניון, עמי הראל – End To End Systems ,יותם סהר-אוניברסיטת אריאל ורפאל,אבי הראל- ארגולייט

הקדמה

ב 15-18 לנובמבר 2022 התקיימה סדנה בינלאומית ל HSI במתכונת היברידית-פיזית בלוס אנג'לס,ווירטואלית ברשת. השתתפו בסדנה 88 משתתפים מכ-12 מדינות,ביניהם ישראלים שהשתתפו מרחוק. ניתן כאן סיכום תובנות מקצועיות מהסדנא, ותיאור תרומת הישראלים לתכנים של הסדנא.

סיכום מושבי מליאה

HSI State of the Art at INCOSE & Human-Machine Teaming

פתח את הכינוס פרופ' GUY BOY יו"ר הסדנא הבינלאומית לHSI שהתקיימה פיזית בלוס אנג'לס ווירטואלית ברשת העולמית. בהרצאת הפתיחה תיאר GUY את כל האירועים שהתקיימו בשלוש השנים האחרונות בתחומי HSI ,כמו : הכנס הבינלאומי הראשון ל HSI שהתקיים בשלהי 2019 בביאריץ, הסדנה הבינלאומית ל HSI שהתקיימה וירטואלית ב2020 בארגון הצוות הישראלי ונרשמו אליה 350 משתתפים מ 24 מדינות, כנס משותף עם הארגון הבינלאומי לארגונומיה שהתקיים ב2021. עם ארגון זה גם נחתם הסכם שיתוף פעולה מקצועי. בנוסף, תיאר GUY את התקדמות הפעילויות של קבוצת העבודה ל HSI – הכנת פרק HSI למדריך הנדסת מערכות של INCOSE, והתקדמות רבה בהכנת ה PRIMER להנדסת מערכות.

כווני ההתקדמות המקצועיים המומלצים בתחומי HSI הם:

שילוב יתר משמעותי בתהליכי הנדסת מערכות
שילוב HSI בהנדסת מערכות מבוססת מודלים.
פיתוח ההיבטים הסוציואקונומיים של HSI דרך קידום מודל מוכלל בכוון זה.
שילוב טכנולוגיות מתקדמות כמו בינה מלאכותית ב HSI , כחלק מהמהפיכה התעשייתית הרביעית.

קבוצת העבודה הישראלית ל HSI שותפה פעילה לכל הפעילויות האלו וגם לכווני המקצועיים המצויינים כאן.

הרצאת המליאה השניה,הייתה על יישום HSI בJPL NASA על ידי SO-YOUNG KIM

שהיא מובילת פעילות HSI בגוף זה. היא תיארה את היסטוריית התפתחות HSI בפרויקטים השונים של JPL , בשלב הראשון על ידי שילוב HCD ו UX בתהליכי התכן, ובשנים האחרונות שילוב מסיבי יותר של היבטי HSI על ידי קליטת מומחי HSI והצבתם המוקדמת בפרויקטים כמו: MARS 2020, EUROPA CLIPPER,EUROPA LANDER ,MARS SAMPLE RETURN.

הרצאת המליאה השלישית ניתנה על ידי פרופ' GUDELA GROTE מאוניברסיטת ETH בשוויץ, בנושא:

BEYOND SOCIOTECHNICAL SYSTEMS: DESIGNING & USING AI IN NETWORKS OF ACCOUNTABILITY

בתקופה המודרנית יש גידול בשימוש באלגוריתמים ממוחשבים ללמידה, וזה מעלה שאלות לגבי חלוקת האחריות ובקרה במערכות סוציו-טכניות. אימוץ מודלים ללמידת מכונה ML המבוססים על צבירה מתמשכת של דטה, מערפלים את הגבולות בין הפיתוח והשימוש של מערכות אלו. מכאן, נכון שמחזיקי העניין השונים יאורגנו ברשתות של אחריות, כדי שקבלת ההחלטות בקבוצת מחזיקי העניין, ולא על ידי גורם יחיד בשלבים השונים של פיתוח ויישום המערכת. בהרצאה מוצעות כמה מודלים לתכן המערכות מבוססים על בינה מלאכותית וקבלת החלטות משותפת. המרצה מציעה לאמץ מתודולוגיה זו למערכות משולבות אנשים כמו ב HSI.

סיכום פעילויות ישראליים בכנס:

תקציר סדנא בנושא הנדסת שילוב אדם מערכת (שא"מ): תיאוריה ומסגרת לשילוב מערכות סוציו-טכניות (מס"ט).

המרצה: אבי הראל https://avi.har-el.com , ארגולייט ergolight@gmail.com

האתגר של הנדסת שא"מ הוא להבטיח שהמערכת תפעל באופן עקבי על פי ציפיות המתכנן. בהקשר של מערכות סוציו-טכניות, קיימת התייחסות גם לאפקט על החברה, דהיינו, מכסימיזצה של התועלת שהמערכת מביאה לחברה, וצמצום הנזקים של תפעול במצבים בלתי צפויים.

ניתוחים סטטיסטיים של גורמי תאונות מצביעים על כך שרובם מיוחסים דה-פקטו לגורם האנושי, אבל בדיקה יסודית מראה שהאדם הוא רק חוליה בשרשרת האירועים שמובילה לכשל, והקושי של המפעיל קשור לקשיים בתגובה למצבים בלתי צפויים. המחקר על גורמי תאונות מעלה כי אירועי כשל רבים נובעים מטעויות בתכן המערכת, שאיפשר חריגה מתהליכים מבוקרים, שלא יישם כלים שמאפשרים למפעיל לזהות ולאתר את המצבים החריגים, ולתפעל את המערכת במצבים הללו. בסדנא הוצגו והודגמו קשיים בתחום של גורמים חברתיים, בעיקר הטיות בנושא האחריותיות, שמחבלים באפשרות להפיק לקחים ממצבים של כמעט תאונה.

הצורך באילוץ המערכת לפעול באופן מבוקר על פי חוקי פעולה הוכר עוד בשנות ה-40, ונוסח בתיאורית הקיברנטיקה. לפני 20 שנים ננסי לבסון הציעה את הפרדיגמה של STAMP, המיישמת את תיאורית הקיברנטיקה למערכות עתירות סיכונים. לפי פרדיגמה זו, האתגר של מניעת תאונות הוא של הגדרת תהליכי בקרת התנהגות המערכת, כולל בתנאים בלתי צפויים.

הפרדיגמה של STAMP היא ברת ישום בתכן מערכת שכל רכיביה מוכרים וידועים.

קיים קושי בישום פרדיגמה זו במערכת הכוללת רכיבים שאופן פעולתם אינו מוכר כל צרכו, כגון רכיבי OEM, ובמיוחד, הרכיבים האנושיים, קרי, המפעילים. בהתאם, ניתוחים סטטיסטיים של גורמי תאונות מצביעים על כך שרובים מיוחסים דה-פקטו לגורם האנושי. הקושי של המפעיל קשור לקשיים בפעולה במצבים בלתי צפויים. בסדנא הודגמו מצבי קושי של המפעיל שמשמעותם היא ירידה בשימושיות, וכתוצאה מכך ירידה בתועלת מערכות בהיבטים של בטיחות, תפוקה, ושביעות רצון של המשתמשים. בהתאם, בסדנא זו הודגש הצורך להרחיב את העקרון של STAMP, שהוא מכוון למניעת תאונות, למושג System Theoretic Utility Method and Process (STUMP)

הבעיה בישום הפרדיגמה של STAMP בתכן שא"מ היא שאין לנו מודל שמייצג נאמנה את התנהגות הרכיב האנושי במצבים השונים, ואין לנו מודל של קונטקסט ההפעלה ושל השפעתו על התנהגות המפעיל. בסדנא זו הוצג מודל של אינטגרצית מערכת שמאפשר בקרה של התנהגות המערכת על פי עקרונות הקיברנטיקה גם כאשר המערכת כוללת רכיבים עבורם אין בידנו מודל הפעלה מהימן.

מודל האינטגרציה שהוצג בסדנא מבוסס על ההנחה שהתנהגות המערכת הינה הסכום של התנהגות האינטראקציות בין רכיבים שונים, כאשר בכל אינטראקציה אחד מהרכיבים נדרש לספק שירות למימוש פונקציה של רכיב בקרה. המודל כולל הגדרה של התנהגות מערכת כשילוב של אינטראקציות שמוגדרות על פי מודל אוניברסלי של תיאום מונחה תרחישים בין יחידת הבקרה ליחידת השירות, על פי חוקי המגדירים אינטראקציה תקינה. חוקי ההפעלה כוללים הגדרה של הקשר בין התרחיש, המוגדר על ידי יחידת הבקרה, לבין מוד ההפעלה של יחידת השירות.

במוקד הסדנא הוצג מודל אינטראקציה אוניברסלי, על פיו הבקר מקבל החלטות ופועל בהתאם למידע שמתקבל מיחידת השירות. מידע זה כולל מידע שמתקבל מיחידת תאום התנהגותי (behavioral twin) של השרת, לגבי תגובת השרת לפקודות אופציונליות של יחידת הבקרה, וכן מידע על סיבות אפשריות למצבי הפתעה, המשמש בתהליכי איתור תקלות. מושג התאום ההתנהגותי הוא גירסא מיוחדת של מושג התאום הסיפרתי, שנמצא במוקד של דיונים רבים בנושא תכן מבוסס מודלים. את התאום ההתנהגותי ניתן להתאים למערכת ספציפית בדרך של קסטומיזציה של תאום גנרי, המבוסס על מודל האינטראקציה האוניברסלי.

מודל האינטגרציה המקובל כיום הוא פרואקטיבי בהיבט החיבורים הפיסיים ובהיבט הפונקציונלי, והוא ריאקטיבי בהיבט ההתנהגותי. המשמעות היא עיכוב בשחרור המערכת עד למצב בו קצב התקלות בתהליכי הבדיקות יורד אל מתחת לסף מסויים, שנקבע על פי יעדי אמינות, אבל מושפע גם מלחצים של גורמי שיווק. בניגוד למודל המקובל, המודל שהוצג בסדנא הוא פרואקטיבי גם בהיבט ההתנהגותי, והוא מאפשר למנוע חלק נכבד מהבעיות שמאותרות כיום רק בשלב המאוחר של הבדיקות לאחר פיתוח עוד בשלב של הגדרת הדרישות.

פנל: מאפיינים אגנוסטיים בשא"מ ( שילוב אדם מערכת )מבוסס מודלים (MB-HSI)

האתגר שהוצג בפנל זה הוא לפתח מדע מערכת חדשני, בו ממזגים לימודי טכנולוגיה, ארגונים ואנשים ביחד באופן רציונלי וקונסיסטנטי.

משתתפים בפנל: GUY BOY-מנחה הפנל: אבי הראל (ישראל), בנג'מין שוורץ (ארה"ב), מתיו תרנטו (ארה"ב)

בפנל נידונו עמדות שונות לגבי שילוב היבטי הנדסת אנוש בMBSE.

עמדה של אבי הראל בפנל

להלן העקרונות שהציג בפנל זה:

שילוב גורמי אנוש ב- STAMP

היעד העיקרי של MB-HSI הוא לתמוך בתכן של תפעול ללא קושי, וברוגע
גורם עיקרי בכשל מערכות קשור בפעילות במצבים חריגים
כשל בתפעול מתבטא באבדן בתפוקה, בטיחות ותמיכת לקוחות
במסגרת דיסציפלינות משיקות (הנדסת מערכות, HSI ו-הנדסת אינטגרציה) אין כיום מתודולוגיות להתמודד עם חריגים
כדי להתמודד עם חריגים, עלינו לאמץ את עקרונות הקיברנטיקה של בקרת התנהגות מבוססת חוקים, כפי שהציעה לבסון בפרדיגמה של STAMP
הפרדיגמה של STAMP אינה מציעה הגנה בפני אירועים בלתי צפויים אותם נהוג לשייך לטעויות אנוש
MB-HSI מאפשר למנוע טעויות אנוש על ידי הגבלת התנהגות המערכת לפעול על פי חוקים פורמליים

אפשר להרחיב את רעיון STAMP, הממוקד בטיחות, לרעיון STUMP, המכוון לתועלת.

System Theoretic Accident Method and Process (STAMP)
è System Theoretic Utility Method and Process (STUMP)

תכן אינטראקציית בקר-שרות (אב"ש) מבוסס מודלים (MB-CSI)

יעד עיקר של MB-HSI הינו לספק אמצעים שיאפשרו תכן התנהגות בעלות סבירה
במחקרים שביצעתי התברר שבמקרים רבים התנהגות בלתי צפויה של המערכות נובעת מאירועים באינטראקציית בקר-שירות (CSI), כאשר הבקר והשירות הן תת מערכות
בתצורת אב"ש, הבקר הוא מונחה תפקיד, שזקוק לשירות כדי לבצע פונקציה.

המושג של אב"ש הוא הרחבה של המושג שא"מ. בהתאם הרעיון של MB-CSI הוא הרחבה של MB-HSI

אתגר עיקרי של MB-CSI הוא לאכוף פעילות של אינטראקציה על פי חוקים
בהתאם, יעד עיקרי בהגדרת הדרישות הינו לפרט את חוקי האינטראקציה במלואם, ובמדויק

דפוסי חוקים

במחקרים שביצעתי הגדרתי מספר דפוסים גנריים של חוקי אב"ש אוניברסליים של מיני מודלים גנריים (ממ"ג)
ממ"ג יכול לפרט את התנאים הנאותים לפעילות ספציפית, ואת התגובה במקרה של סטיה מהתנאים הללו
חוקי אש"מ צריכים להביא לתיאום מצבים ופעילות
חוקים מצבים יכולים להיות מוגדרים במונחים של תרחישים
חוקי פעילות יכולים להיות מוגדרים במונחים של מעברי תרחישים
אחד האתגרים הראשיים של אב"ש מונחה מודלים הוא להתאים את הפרוטוקולים הגנריים לפרויקטים ספציפיים
שיטה לתמוך בתיאום בקר-שירות היא על ידי תאומים התנהגותיים, שמספקים הדמיה של פעילויות אפשריות בשרות, לצורך קבלת החלטות בבקר ולצורך איתור תקלות.

תהליך פיתוח חוקי התפעול

לפני כל תאונה יש כמה וכמה אירועים של כמעט תאונה, שבאיתור ותחקור הולם אפשר היה למנוע את התאונה
כדי לאפשר את הפקת הלקחים, יש צורך לגלות, לנתח ולפרסם את ממצאי האירועים
גילוי, ניתוח ופירסום הם הכרח גם כדי להפיק לקחים מאירועים שגרתיים
למרות זאת, יצרני מערכות נמנעים מלדרוש מעקב אחר תפעול המערכת
תחקור תאונות הוא לעתים קרובות נסיבתי, במקום להיות מכוון לשיפור התכן. המתחקרים נוטים לחפש אשמים במקום להציע דרכים כיצד לשפר את הבטיחות
מנהלים מרגישים מאוימים על ידי דו"חות המפרטים את הגורמים לכשל בתפעול
בכדי למנף את פיתוח החוקים, יש להתחשב בגורמים חברתיים, הגורמים להטיות, כגון הטיית אחריותיות או הטיית המפתחים.

מידול הגורם האנושי

בהנדסת שא"מ עלינו להתייחס בראש וראשונה לביצועי המערכת, ואבל גם לביצועים של מרכיבים ספציפיים, כולל המפעילים.
במסגרת המודל של אב"ש, המודל של הבקר כולל שני מרכיבים עיקריים: מודל התפקיד ומודל הפעילות
במקרה של בקר אנושי, מודל התפקיד זהה לזה של מרכיב אוטומטי, דהיינו, מיובא מהקשר התפעול
במקרה של בקר אנושי, מודל פעילות שימושי הוא של מחולל טעויות אקראיות, מפניהן המערכת נדרשת להתגונן.

עמדות נוספות שהוצגו,הדגישו את החשיבות של שילוב הנדסת גורמי אנוש בתהליכי הנדסת מערכות. לדעת הפנליסטים שימוש ב MBSE ושילוב בו מודלי HSI מאפשר תכן מערכתי משולב של המערכת והיבטי אנוש. כמובן שזה מצביע על יתרון חשוב.

מושבי מעבדות HSI- Mobile-Lab אוניברסיטת אריאל

המעבר לאוטונומיה מלאה ("דרגה 5") בתחבורה ייקח זמן רב, חרף הדימויים בתקשורת והבטחות חברות הרכב. במהלך המעבר לאוטונומיה מלאה, מפעילים אנושיים ישחקו תפקיד מרכזי, בניטור פעולות הרכב האוטונומי ואף בהתערבות במקרה הצורך. בהתבסס על הבנה זו, הוקמה באוניברסיטת אריאל ה- Mobile-Lab, על ידי ד"ר אורן מוזיקנט. במעבדה מתבצעת סדרה של מחקרים, על מנת לתמוך בתכנון של אינטראקציה חצי-אוטונומית בין רכב לנהג אנושי, לשפר את השליטה האוטונומית ואת קבלת ההחלטות האוטונומית וכדי לחקור את ההיבטים האנושיים של אמון ואימוץ הטכנולוגיה של רכבים אוטונומיים.

כלי המחקר העיקרי הוא מעבדה ניידת, רכב נשלט מרחוק אשר מדמה נהיגה אוטונומית בגישת הקוסם מארץ עוץ ("Wizard-of-Oz"). גישה זו היא אחת הגישות החדשות ביותר במחקרי אינטראקציה בין אדם לרכב אוטונומי. המעבדה הניידת כוללת חיישנים רבים מסוגים שונים, מוכוונים הן לרכב (לתיעוד הקינמטיקה ופעולות הרכב), הן לסביבה (מצלמות, Lidar וכדומה) והן לאדם. החיישנים המיועדים למדידות פיזיולוגיות משמשים למדידת הנוסעים ברכב, נהגים "במקומי" (בתוך הרכב) וכן נהגים מרוחקים. הם כוללים מדדי מח (EEG), תנועות עיניים, מדדי לב ומוליכות עור – וכן פיתוח של חיישנים פורצי דרך וחדשניים (Grip Force).

במושב זה הציגו לאון אלטרק ויותם סהר, שני דוקטורנטים אשר חוקרים במעבדה, את עיצוב המערכת המלא של ה- Mobile-Lab, הובאו דוגמאות לניסויים אשר מתבצעים בה בשנים האחרונות ונערך דיון בשיתוף הקהל סביב נושאים של נהיגה מרוחקת, כלי רכב אוטונומיים והגורם האנושי.

סיכום ולקחים

פרופ' GUY BOY סיכם במושב הסיכום את לקחי הסדנא ועיקרי הנושאים שנדונו בה. הוא חזר על דיאגרמת ה HSI שהוא מציע לדיסיפלינת ה HSI שגם נכללת במדריך להנדסת מערכות של INCOSE וגם בפריימר של HSI:

נבנה באמצעות מערכת דפי הנחיתה של רב מסר